Модель показала отличный результат.
mradermacher/Nous-Hermes-2-Mixtral-8x7B-DPO-i1-GGUF · Hugging Face Параметры модели:
{
"name": ".",
"arch": "llama",
"quant": "Q6_K",
"context_length": 32768,
"embedding_length": 4096,
"num_layers": 32,
"rope": {
"freq_base": 1000000,
"dimension_count": 128
},
"head_count": 32,
"
(
Read more... )